Il CEO di Microsoft AI avverte che nei prossimi due anni potrebbero arrivare modelli di intelligenza artificiale "pericolosi" e "apparentemente coscienti": "Meritano la nostra immediata attenzione"

Un'intelligenza artificiale apparentemente cosciente potrebbe arrivare entro i prossimi anni, rappresentando una minaccia "pericolosa" per la società, afferma un leader nel campo dell'intelligenza artificiale.

Mustafa Suleyman, 41 anni, CEO di Microsoft AI, ha scritto in un saggio personale pubblicato all'inizio di questa settimana che l'intelligenza artificiale apparentemente cosciente (SCAI), ovvero un'intelligenza artificiale così avanzata da poter convincere gli esseri umani di essere in grado di formulare i propri pensieri e convinzioni, è a pochi anni di distanza.

Correlato: Microsoft afferma che la sua intelligenza artificiale è migliore dei medici nel diagnosticare i pazienti, ma "hai comunque bisogno del tuo medico"

Sebbene al momento non vi siano "prove" che l'intelligenza artificiale sia cosciente, è "inevitabile e sgradito" che la SCAI possa comparire nei prossimi due o tre anni, ha scritto Suleyman.

La "preoccupazione principale" di Suleyman è che le SCAI possano apparire empatiche e agire con maggiore autonomia, il che porterebbe gli utenti di SCAI a "iniziare a credere nell'illusione delle IA come entità coscienti" al punto da sostenere i diritti delle IA e persino la cittadinanza delle IA. Ciò segnerebbe una "svolta pericolosa" per la società, in cui le persone si affezionerebbero all'IA e si disconnetterebbero dalla realtà.

"Questo sviluppo rappresenterà una svolta pericolosa nel progresso dell'intelligenza artificiale e merita la nostra immediata attenzione", ha scritto Suleyman nel saggio. Ha poi aggiunto che l'intelligenza artificiale "disconnette le persone dalla realtà, logorando fragili legami e strutture sociali, distorcendo urgenti priorità morali".

Correlato: "Molto spazio per le startup": ecco dove gli imprenditori dovrebbero cercare opportunità di business nell'intelligenza artificiale, secondo il CEO di Microsoft per l'intelligenza artificiale

Suleyman ha affermato di essere "sempre più preoccupato" per la psicosi da IA , ovvero per il fatto che gli esseri umani provino false credenze, deliri o sentimenti paranoici dopo interazioni prolungate con chatbot di IA. Esempi di psicosi da IA ​​includono l'instaurarsi di una relazione sentimentale con un chatbot di IA o la sensazione di avere superpoteri dopo aver interagito con esso.

La psicosi da IA ​​non si applicherà solo agli individui a rischio di problemi di salute mentale, ha previsto Suleyman. Ha affermato che gli utenti devono discutere "urgentemente" di "limiti di sicurezza" per proteggere le persone dagli effetti negativi della tecnologia.

^{Mustafa Suleyman, CEO di Microsoft AI. Fotografo: David Ryder/Bloomberg tramite Getty Images}

Suleyman è diventato CEO di Microsoft per l'intelligenza artificiale lo scorso anno, dopo aver co-fondato e gestito per due anni la propria startup di intelligenza artificiale chiamata Inflection AI, secondo LinkedIn . Microsoft è la seconda azienda più preziosa al mondo, con una capitalizzazione di mercato di 3,78 trilioni di dollari al momento della stesura di questo articolo.

Correlato: Il CEO di Microsoft AI afferma che quasi tutti i contenuti su Internet sono un bersaglio leale per la formazione sull'intelligenza artificiale

Suleyman è anche uno dei fondatori di DeepMind, una società di ricerca e sviluppo di intelligenza artificiale acquisita da Google per circa 600 milioni di dollari nel 2014.

Suleyman non è il primo CEO a mettere in guardia dagli effetti negativi dell'intelligenza artificiale. In un discorso tenuto il mese scorso a una conferenza della Federal Reserve a Washington, DC, il CEO di OpenAI, Sam Altman, ha affermato che "l'eccessiva dipendenza emotiva" da ChatGPT lo tiene sveglio la notte.

"La gente fa troppo affidamento su ChatGPT", ha detto Altman durante l'evento. "Mi fa davvero pena."